package com.yujiahao.bigdata.rdd.action

import org.apache.spark.rdd.RDD
import org.apache.spark.{SparkConf, SparkContext}

object Spark01_Action_CountByKey {
  def main(args: Array[String]): Unit = {
    //TODO 1、获得Spark环境的连接
    // 参数解读：setAppName("当前执行程序的名字").setMaster("当前的环境")
    // 分布式环境的基本架构为 主 - 从
    val conf: SparkConf = new SparkConf().setAppName("WordCount").setMaster("local")
    val sc: SparkContext = new SparkContext(conf)
    //TODO 3、业务逻辑


    val rdd: RDD[Int] = sc.makeRDD(List(1, 4, 3, 2), 2)
    val rdd1: RDD[(Int, String)] = sc.makeRDD(
      List(
        (1, "a"), (1, "a"), (1, "a"), (2, "b"), (3, "c"), (3, "c")
      ))
    //TODO 行动算子 countByKey：需要数据格式为KV类型，相同Key的数据的数量(7 / 10)
    //这个可以实现WordCount但是一定要是键值对，有需要的话可以将数据变成键值对，然后会统计出来
    val wordCount: collection.Map[String, Long] = rdd.map(("a", _)).countByKey()
    println("测试行动算子countByKey：" + wordCount)

    println("测试行动算子countByKey1：" + rdd1.countByKey())
    //TODO 2、关闭Spark环境的连接
    sc.stop()

  }

}
